Los temores de que sistemas de inteligencia artificial se vuelvan más inteligentes que el ser humano y escapen a todo control se han intensificado con la aparición de una nueva generación de chatbots.
Por Kelvin Chan y Matt O'Brien
LONDRES, 30 de mayo (AP).— Científicos y directivos de Microsoft, Google y otras empresas de la industria tecnológica emitieron una nueva advertencia el martes sobre los peligros que representa la inteligencia artificial (IA) para la humanidad.
"Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, tales como las pandemias y la guerra nuclear", dice el comunicado publicado online.
Sam Altman, director general de OpenAI, fabricante de ChatGPT, y el científico Geoffrey Hinton, considerado el padrino de la inteligencia artificial, están entre los cientos de personalidades destacadas que firmaron la declaración, publicada en el sitio web de Center for AI Safety (centro por la seguridad de la IA).
We just put out a statement:
“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”
Signatories include Hinton, Bengio, Altman, Hassabis, Song, etc.https://t.co/N9f6hs4bpa
🧵 (1/6)
— Dan Hendrycks (@DanHendrycks) May 30, 2023
Los temores de que sistemas de inteligencia artificial se vuelvan más inteligentes que el ser humano y escapen a todo control se han intensificado con la aparición de una nueva generación de chatbots altamente capacitados como ChatGPT.
La advertencia más reciente fue intencionalmente lacónica —apenas una frase— para abarcar a una coalición amplia de científicos que podrían no estar de acuerdo sobre los riesgos más probables o las mejores soluciones para prevenirlos, dijo Dan Hendrycks, director general del Center for AI Safety, con sede en San Francisco.
"Una variedad de personas de todas las universidades principales y diversas disciplinas están preocupadas por esto y piensan que es una prioridad global", dijo Hendrycks. "Por eso tuvimos que conseguir gente que saliera de las sombras, por así decir, para hablar sobre esto porque muchos hablaban en silencio entre ellos".
We’ve released a statement on the risk of extinction from AI.
Signatories include:
- Three Turing Award winners
- Authors of the standard textbooks on AI/DL/RL
- CEOs and Execs from OpenAI, Microsoft, Google, Google DeepMind, Anthropic
- Many morehttps://t.co/mkJWhCRVwB— Center for AI Safety (@ai_risks) May 30, 2023
Más de mil investigadores y tecnólogos, entre ellos Elon Musk, habían firmado una carta mucho más larga para pedir una pausa de seis meses en el desarrollo de la IA porque crea "profundos riesgos para la sociedad y la humanidad".
Países en todo el mundo se apresuran a elaborar regulaciones para el desarrollo de la tecnología. La Unión Europea abre el camino con su Ley de IA, que espera aprobar en los próximos meses.
